Snapchat met en garde contre son ChatGPT

My AI est le nom d'un chatbot qu'introduit l'application de messagerie Snapchat. Cet agent conversationnel s'appuie sur la dernière version de la technologie et modèle de langage GPT d'OpenAI. Une sorte de ChatGPT spécialement adapté pour Snapchat.

L'annonce peut faire penser à l'arrivée du chatbot Bing dans Skype de Microsoft, également animé par l'IA et une technologie en partenariat avec OpenAI. Il s'avère que Snap, la maison mère de Snapchat, et OpenAI ont des atomes crochus.

Selon The Verge, Snap est en outre l'un des premiers clients de la " mystérieuse " plateforme Foundry d'OpenAI et abonnement pour les entreprises, afin d'exécuter ses modèles avec des ressources dédiées. Cela concerne le modèle GPT-3.5 qui est utilisé pour ChatGPT, ainsi que des modèles en développement.

Une version de ChatGPT dans Snapchat

En présentant My AI, Snapchat souligne un chatbot qui peut être personnalisé. Les quelques exemples d'utilisation cités sont pour recommander des idées de cadeaux d'anniversaire pour un ami, planifier une randonnée pour un long week-end, suggérer une recette de cuisine pour le dîner ou écrire un haïku (court poème japonais) sur le fromage.

" En plus de parler tous les jours à nos amis et à notre famille, nous allons parler tous les jours à l'IA. […] C'est quelque chose que nous sommes bien placés pour faire en tant que service de messagerie ", déclare Evan Spiegel, le patron et fondateur de Snap.

Si Snapchat revendique 375 millions d'utilisateurs actifs par jour fin 2022 (750 millions par mois), My AI fait d'abord ses débuts dans le cadre de l'abonnement Snapchat+ à 4,49 € par mois et en tant que fonctionnalité expérimentale. Snapchat+ a atteint plus de 2 millions d'abonnés payants au quatrième trimestre 2022.

Attention avec My AI

L'objectif est toutefois de rendre disponible My AI pour l'ensemble des utilisateurs de Snapchat. En attendant, il y a quelques mises en garde. " My AI est sujet aux hallucinations et peut être amené à dire à peu près n'importe quoi. Ayez conscience de ses nombreuses lacunes et désolé par avance ! ", prévient Snapchat.

Ces hallucinations sont des réponses erronées qui sont présentées comme vraies ou des sortes d'inventions, sans trouver de justification du côté des données d'entraînement de l'IA. L'enjeu de taille est de les réduire autant que possible. ChatGPT n'échappe pas à de telles hallucinations, tout comme Bing Chat malgré son accès au Web.

Source : The Verge

" Bien que My AI soit conçu pour éviter toute information biaisée, incorrecte, nuisible ou trompeuse, des erreurs peuvent se produire ", ajoute Snapchat. Les discussions avec My AI sont en outre susceptibles d'être examinées dans une optique d'amélioration. Il faut donc éviter de lui confier des secrets…